第二种形式：即在计算模块上方直接堆叠内存模块。这种技术可以通过3D堆叠移动数据，避免将信号驱动到DDR5 DIMM插槽时消耗的大量功率，从而提高内存访问效率和速度。

其实这种设计可以让计算核心以更短的距离、更高的带宽、更低的延迟访问内存，而且能大大降低功耗；

2.5D封装可以做到独立内存功耗的30％左右，3D混合键合封装更是仅有传统的1/6。

图片来自：IEEE

AMD声称自2009年以来，已成功地将主流服务器性能每2.4 年翻一番。

并且，AMD有信心通过其GPU性能趋势进一步展望未来，并表示这一块趋势至少会持续到2025年。

图片来自：AMD

AMD面临的最大挑战之一是在I/O端：

AMD的I/O端包括多个组件，如南桥芯片组、PCI Express控制器、USB控制器、SATA控制器等；

这些组件用于连接计算机系统与外部设备，实现了快速数据传输和通信。

随着系统性能的提高，I/O端将成为系统瓶颈之一：

为了解决这些问题，AMD和其他芯片制造商采用了多种技术来优化I/O性能，例如：高速总线、多通道I/O控制器、高速缓存和数据预取等；

此外，AMD还推出了一些专门用于高性能计算的技术，如Infinity Fabric互连和AMD EPYC处理器中的集成PCIe控制器等，以提高I/O性能并缓解I/O瓶颈问题。

AMD寻找创新的解决方案，提高I/O端的吞吐量和效率。

这样做的最终影响是，从能源角度来看，拆包到DRAM的成本越来越高。

AMD即将推出AMD Instinct MI300：

更有趣的部分是MI300中CPU和GPU内核下方的Infinity Cache和Infinity Fabric芯片的3D堆叠。

AMD在当前的Milan-X和即将推出的Ryzen 7000X3D系列中看到的3D SRAM堆叠将SRAM放置在CPU芯片上方。

MI300将改变这一点并将缓存置于CPU芯片下方，冷却是一项重大挑战，因此让热计算块更靠近时尚冷却块是有意义的。

AMD ISSCC 2023 AMD Instinct MI300

AMD从8通道DDR4到12通道DDR5的新的性能大跃进：

DDR5是最新的内存标准，相比于DDR4，它具有更高的带宽和更低的延迟，能够提供更快的数据传输速度和更好的系统响应时间。

DDR5具有更高的密度和更低功耗：

是因为DDR5内存支持更高的容量，单个内存芯片可以容纳更多的内存单元，这意味着每个内存通道可以支持更高的容量。

DDR5内存的供电电压比DDR4内存更低，通常为1.1V，这降低了内存模块的功耗。

DDR5内存的优势分别体现在哪些地方？

1、体现在更高的带宽和更快的数据传输速度

2、体现在更高的密度和更大的存储容量

3、体现在更低的功耗和更少的热量

4、体现在更好的错误检测和纠正功能

综上所述，DDR5内存相比于DDR4内存具有更高的密度和更低的功耗，这些优势可以提高系统的性能、稳定性和可靠性。

在AMD处理器架构中，内存带宽对于性能至关新的：

更高的内存带宽可以加快数据的传输速度，从而提高处理器的吞吐量和响应速度。

因此，从8通道DDR4到12通道DDR5的升级，可以大大提高AMD处理器的性能，特别是在处理大型数据集、进行复杂计算和多任务处理时，效果更为显著。

现在英特尔和AMD都推出了新的服务器平台，业界坚定地走上了向 DDR5过渡的道路。

现在芯片上有两个内存通道。即使拥有ECC DDR5 UDIMM，也不再与支持RDIMM的平台兼容。

在过去的十年里，服务器市场已经从 12 核/插槽发展到目前的 96 核/插槽，在市场上已有的相同平台上，128 核/插槽的出现相对较快。

英特尔和 AMD 主流服务器核心数量增长

显而易见的是，服务器正在将过去位于机架中的内容整合到单个节点中：

随着小芯片和CXL的出现，这种趋势在未来将会加速。

系统扩展的最大挑战之一是内存带宽。拥有更多内核和更多PCIe设备固然很好，但如果系统的某些部分闲置等待数据，那么它们就被浪费了。

由于内存扩展速度慢于核心增长速度，服务器供应商设计了一个简单的解决方案，扩展内存通道数量并使用更快的内存。

增加内存通道并同时提高内存速度意味着该行业已经能够随着时间的推移至少为内核提供类似数量的带宽。

写在最后：

AMD 表示，如果关键算法内核可以在内存中执行，那将减轻系统的负担和延迟。

因此，整个行业都在努力超越带有附加DRAM模型的典型CPU，并转向新的架构。返回搜狐，查看更多